Từ gaijin có thể được tìm thấy trong văn bản thể kỷ 13 Heike Monogatari:

Ở đây, gaijin ám chỉ những người ngoài[12][13] và những kẻ thù tiềm tàng.[14] Một sự tham chiếu thời kỳ đầu khác là ở trong Renri Hishō (k. 1349) bởi Nijō Yoshimoto, nơi nó được sử dụng để chỉ một người Nhật Bản là một người xa lạ, không phải là một người bạn.[14] Vở kịch Noh mang tên Kurama tengu[15] có một cảnh nơi một người đầy tớ tỏ vẻ không hài lòng với sự xuất hiện của một nhà sư đi khất thực:

Ở đây, gaijin cũng có nghĩa một người ngoài hoặc một người không quen biết.[16]

Từ gaikokujin (外国人) được cấu tạo từ gaikoku (nước ngoài) và jin (con người). Chính phủ Minh Trị (1868–1912) đã giới thiệu và truyền bá thuật ngữ này, từ dùng để thay thế các từ như ijin, ikokujin và ihōjin. Khi Đế quốc Nhật Bản mở rộng ảnh hưởng sang Triều Tiên và Đài Loan, thuật ngữ naikokujin ("người trong nước") được dùng để chỉ công dân của các lãnh thổ khác thuộc đế quốc.[cần dẫn nguồn] Trong khi các thuật ngữ khác bị rơi vào quên lãng sau Chiến tranh thế giới thứ hai, gaikokujin vẫn là thuật ngữ chính thức cho những người không phải là người Nhật. Một số người cho rằng gaijin là một sự rút gọn của từ gaikokujin.[17]